SPyCE: Skill-Policy Co-evolution for Multimodal Agents
SPyCE:多模态智能体的技能-策略协同进化框架
🧭 多模态Agent · 技能-策略协同进化
Zhejiang University · Beijing University of Posts and Telecommunications
将多模态推理轨迹蒸馏为层级技能库,与策略在强化学习中协同进化,形成自我改进闭环
📌 工作参考价值(4 点)
- 构建层次化技能库:执行技能(局部视觉操作)和工作流技能(高层工具编排),可直接复用于电商多模态Agent设计,将商品图片分析、多步工具调用沉淀为可复用模块。
- 技能与策略闭环进化:在线RL中,用策略生成的高分轨迹持续更新技能库,再用检索到的技能引导策略探索,可实现Agent自我改进,适合需要长期运行的搜索推荐辅助Agent。
- 检索增强的策略条件:将历史成功技能作为先验注入策略模型,可大幅提高样本效率,尤其适用于多步交互场景(如智能客服、视觉比货),避免从零开始探索工具使用模式。
- 视觉操作封装:把图像裁剪、对比、OCR等原子操作抽象为执行技能,可构建可组合的视觉推理流水线,降低MLLM直接操作像素的复杂度。